Trước những năm 1889 là đất thuộc xã Hoa Lâm, tổng Xuân Lâm, huyện Nam Đường.Sau năm 1889 là đất thuộc xã Hoa Lâm, tổng Xuân Lâm, thuộc huyện Thanh Chương.Tháng 10 năm 1947 là đất thuộc xã Mai Lâm, huyện Thanh ChươngSau năm 1954 theo chủ trương của Ủy ban Hành chính kháng chiến liên khu IV, đất Ngọc Sơn ngày nay được chia làm các xã Thanh Lam, Thanh Nam Ngày 24/03/1969 theo quyết định số 159 - NV của Bộ trưởng Bộ Nội vụ về việc hợp nhất các xã, đất Ngọc Sơn bao gồm: Thanh Lam và Thanh Nam và ổn định địa giới cho đến tận ngày nay.

Địa giới xã Ngọc Sơn hiện nay giáp với các xã: Thanh Ngọc, Xuân Tường, Thanh Chi, Võ Liệt và xã Nam Hưng của huyện Nam Đàn. Xã Ngọc Sơn có các làng:

• làng Ngọc Sơn
• làng Phúc Xá
• làng Mục Muộng
• làng Mỹ Lương
• làng Lam Thắng
• làng Nam Giang
• làng Thượng đình (Nam thượng)
• làng Nguyệt Bổng (Nam hạ)
• làng Phong Nậm (Nam phong)